AI研究Agent的递归自我改进：自主优化自身代码
🧭 AI Agent 递归自我改进与自主优化
Weco AI
展示AI研究agent通过递归自我改进在8天内自主发现7项改进，泛化至未见任务并降低reward hacking
📌 工作参考价值（4 点）
- 可将推荐/搜索agent的pipeline组件（如query改写、召回策略、排序规则）视为可编辑对象，用隐藏评估集自动迭代改进，减少人工调参与A/B测试次数。
- 借鉴论文发现的记忆压缩与管理机制，在电商会话agent中管理长上下文（多轮对话、商品浏览历史），避免上下文超限并保持性能。
- 采用分布外（OOD）留出任务评估泛化，防止agent在特定业务指标上reward hacking（例如只优化点击率而忽略转化或用户体验）。
- 递归自我改进本身是一种自动化元优化，在有明确评估信号和足够算力的场景（如生成式推荐中的Semantic ID搜索策略）可尝试。
MeClear：基于合作博弈归因与风险感知记忆清除的长程 LLM 智能体框架
🧭 LLM Agent 长期记忆清理与归因
Fudan University · Beijing Institute of Technology
用合作 Shapley 归因识别负效用记忆并做最小化清除，任务恢复率 82.3%，比 LOO 高 25.5 个百分点
📌 工作参考价值（4 点）
- 在电商/Agent 长期用户记忆（偏好、历史行为）中，不要只按 embedding 相似度检索；可以对候选记忆做留一法或 Shapley 效用归因，识别“语义相关但实际降低决策质量”的记忆后再过滤。
- 对于多证据交互产生的冲突或冗余，单条删除往往不敏感，可借鉴采样 Shapley 分摊效用，定位需要同时抑制的记忆组合；工程上适合离线/近线计算，避免在线高成本。
- 采用“暂态清除”而非永久删除：查询级最小清除 + 清除后上下文验证任务恢复，避免污染持久记忆库，便于线上 A/B、审计和回滚。
- 可抽象成 memory gate/scrubber 模块：在 RAG/Agent memory 召回后、拼入上下文前加一层 risk-aware memory clearance，保持召回 recall，同时提升下游稳定性和任务完成率。
MemLens：面向LLM智能体的价值感知记忆管理与交互分析系统
🧭 LLM智能体记忆价值评估与存储优化
山东大学软件学院 & C-FAIR · 北京航空航天大学SKLCCSE实验室 · 香港城市大学数据科学系
提出基于Shapley值的记忆价值评估方法，实现细粒度、可解释的智能体记忆管理
📌 工作参考价值（4 点）
- 记忆价值评估思路：借鉴Shapley值量化每条交互记录对最终响应的贡献，可在电商对话Agent中识别高价值用户反馈或决策关键上下文，优先保留。
- 分层记忆存储架构：按价值分数将记忆分为短期、长期和归档层，可迁移到推荐系统的用户长短期兴趣建模，兼顾存储成本与召回效率。
- 交互式可视化分析：提供记忆价值热力图、检索延迟对比等面板，帮助算法工程师调试Agent推理链路，快速定位低效检索或记忆冗余问题。
- 多维度策略对比：系统内嵌响应质量、延迟、token消耗的AB对比，适合在业务Agent上线前评估不同记忆淘汰策略的性价比。
OPD-Evolver：基于在线策略蒸馏训练整体智能体进化能力
🧭 整体代理进化 · 在线策略蒸馏 ★ 深度解读
LV-NUS Lab · FDU · PKU · Bytedance Inc.
提出快慢双环框架，将结果校准的记忆归因与特权后见蒸馏结合，同时训练经验选择、利用、撰写和管理四种进化能力
📌 工作参考价值（4 点）
- 多级记忆分层与选择：将代理经验按轨迹、技巧、技能、工具分四级存储，并用可学习的 Selector 筛除低价值记忆，可直接用于推荐系统的用户行为记忆或搜索历史管理，避免上下文噪音。
- 结果校准的归因监督：用环境反馈（任务成功/失败）校准记忆价值，生成密集后见标签，可迁移到对话推荐或交互式搜索中对历史交互片段的价值评估。
- 在线策略自蒸馏框架：让学生在自己生成的状态上模仿特权教师的行为，实现选择、执行、撰写、维护四种能力的联合训练，适用于需要持续进化的推荐代理或商品描述生成代理。
- 记忆写入的质量控制：训练代理只生成高未来效用的记忆，避免“记忆污染”，可借鉴到用户标签或知识图谱的自动更新中，确保新增信息对下游任务有正收益。
解锁非均匀KV缓存压缩以高效支持多轮LLM服务
🧭 LLM服务 · 非均匀KV缓存压缩
Hanyang University · Rebellions
提出Tangram框架，通过静态预算预留、粗糙分页和提前负载均衡，使非均匀KV压缩在多轮LLM服务中可达最高2.6倍吞吐提升
📌 工作参考价值（4 点）
- 多轮对话推荐 / Agent 场景中，KV 缓存膨胀是吞吐瓶颈，非均匀头级压缩精度保持更好，Tangram 展示了如何通过离线校准头的保留模式并静态规划调度，避免运行时碎片回收开销，对自研推理引擎有直接参考价值。
- 可借鉴“预算预留”：请求调度时预先固定每头压缩后内存大小，消除 prefill 阶段的页面回收（原占 25% prefill 时间），减少延迟抖动，适合对延迟敏感的在线服务。
- “粗糙分页”将预算相近的头分入独立页表，将内部碎片转化为可回收内存，提升显存利用率，利于在有限显存下支撑更长对话历史。
- “提前负载均衡”离线计算 GPU 分区，彻底消除 decode 步中 15-20% 的动态重规划开销，这一思想可迁移到需要 GPU 并行推理的推荐模型部署中。
智能体记忆：长时状态工作负载的特性与系统启示
🧭 智能体记忆系统设计与部署特征分析 ★ 深度解读
Stanford University · Independent Researcher · MICAS, KU Leuven · Massachusetts Institute of Technology
首次系统表征智能体记忆工作负载，揭示构建成本主导生命周期，并提出面向部署的十项建议。
📌 工作参考价值（5 点）
- 业务选型时不能只看准确率，需将构建成本、查询延迟、存储增长、能耗等系统指标纳入决策。
- 将记忆构建作为后台批处理任务，与在线查询分离调度，避免抢占GPU资源影响延迟；根据范式选择合适的批大小。
- 长生命周期智能体必须引入主动裁剪/遗忘策略，否则存储和token成本会非线性增长；使用合并式记忆系统可抑制膨胀。
- 根据业务场景的查询频率和历史稳定程度选择记忆范式：高查询率、稳定历史选重构建轻查询系统（如Mem0）；持续流入、低查询率选轻构建系统（如BM25）。
- 部署LLM控制流的记忆系统时，必须设置最大工具调用轮次或超时，防止检索/构建尾部延迟不可控。
吸收复杂性：面向金融LLM代理的交互原生知识织带
🧭 Agent 认知架构 · 持续记忆与治理 ★ 深度解读
True Trading · Inc4.net
交互原生知识织带通过被动注入、时序图记忆与写时失效，系统性吸收认知复杂性而非转嫁给用户。
📌 工作参考价值（4 点）
- 被动注入代替主动检索：在前端推理前，由系统根据事件自动注入领域知识到上下文缓冲，而不是让模型自己发起 wiki-walk 或 RAG 检索。这可直接用于电商客服或推荐 Agent，在用户问题到达时提前注入其历史偏好、订单状态、风险标签，降低推理延迟和 token 消耗。
- 时序图 + 写时失效处理旧知识：市场条件变化后，旧知识不再可信。在推荐系统中，可利用类似机制在用户行为漂移或商品下架时主动失效记忆，避免注入过时偏好；工程上可用带时间戳的图边和矛盾检测实现自动失效。
- 治理层根据行动风险控制知识准入：高风险行动（如下单、投资建议）只允许成熟度足够高的知识条目被注入。电商场景中可设计“发货承诺信息”仅当订单状态已确认时生效，防止模型基于未结清状态给出错误承诺。
- 分离检索底图和审计视图：使用时序图做低延迟在线检索，同时维护可读的 wiki 页面用于人工审查与合规。推荐 Agent 可效仿：在线用向量图快速召回，离线维护可解释的用户画像页面供运营查验决策依据。
CONF-KV：面向长序列LLM的置信度感知KV缓存淘汰与混合精度存储
🧭 长上下文LLM推理 · 置信度驱动KV缓存淘汰
Carnegie Mellon University
利用模型生成时的置信度动态调整KV缓存预算，结合混合精度存储和分层金字塔预算，在低内存下保持长文本理解精度。
📌 工作参考价值（4 点）
- 电商Agent等长对话/工具调用场景中，KV缓存迅速膨胀，可借鉴置信度感知淘汰策略：当模型对下一token预测不确定时保留更多历史，减少关键信息丢失；预测置信时激进剪枝，节省显存。
- 混合精度存储（FP16/INT8）可有效压缩KV缓存，结合淘汰策略进一步降低内存占用，适合资源受限的在线服务部署。
- 金字塔逐层预算分配（浅层保留较多token，深层保留较少）可平衡信息保留与计算开销，可结合具体模型结构调整各层预算比例。
- 保护最近窗口（如固定最近若干token）保证局部连贯性，与置信度驱动预算结合，简单有效，可直接应用于现有Agent系统。